LIMBIQUE (SYSTÈME)

LIMBIQUE (SYSTÈME)

C’est par étapes que se développe une notion telle que celle d’un «système limbique», et ce n’est que de façon progressive qu’elle se précise et s’affirme dans une acception très généralement admise. Aussi n’est-il pas sans intérêt d’en tracer un bref historique.

Le qualificatif «limbique» apparaît en 1878, lorsque Broca décrit sous le nom de «grand lobe limbique» le bord (limbus , en latin) qui entoure de toutes parts le seuil de chacun des deux hémisphères cérébraux, c’est-à-dire la région au niveau de laquelle le tronc cérébral pénètre dans l’hémisphère sur sa face interne ou médiane. Broca inclut ce grand lobe limbique (constitué par deux circonvolutions: celle du corps calleux et celle de l’hippocampe) dans ce qu’il appelle l’«appareil olfactif». Près d’un demi-siècle plus tard, Herrick constate la présence d’un cortex hippocampique bien différencié chez un animal totalement anosmique comme le dauphin, et il pressent que le «cortex olfactif» est susceptible d’être le siège d’une activité non spécifique (non liée à la fonction olfactive), qui «trouve son expression dans le comportement global, dans les facultés d’apprentissage et de mémorisation», et qui s’exerce également sur «l’appareil interne de l’attitude générale de l’organisme, de ses dispositions et de ses états affectifs».

Dès 1937, une première confirmation de ces hypothèses spéculatives est apportée à la fois par les résultats expérimentaux de Klüver et Bucy et par les observations anatomo-cliniques de Papez. Klüver et Bucy constatent qu’une lobectomie temporale bilatérale entraîne chez le singe une nette hyporéactivité émotionnelle: l’animal opéré semble être incapable de reconnaître par la vue la signification des objets qui constituent son environnement habituel («cécité psychique»). Procédant à un essai de synthèse à partir de données d’anatomie comparée et d’observations anatomo-cliniques colligées dans la littérature, Papez décrit un circuit anatomo-fonctionnel (qui portera par la suite son nom) auquel il attribue un rôle fondamental dans l’élaboration et l’expression des émotions, et qui serait constitué par l’hypothalamus, les noyaux antérieurs du thalamus, le gyrus cinguli, l’hippocampe et leurs interconnexions.

À partir de 1937, des résultats expérimentaux de plus en plus nombreux montrent qu’effectivement les «structures olfactives» (ou «rhinencéphaliques») participent à des circuits fonctionnels qui débordent largement le cadre de la seule fonction olfactive. En 1958, Nauta décrit, chez le chat, un circuit qui met en relations réciproques l’hippocampe (et accessoirement l’amygdale) avec des structures mésencéphaliques bien définies que l’auteur regroupe dans la notion d’une «aire limbique» du mésencéphale ; les voies de ce circuit traversent le diencéphale, s’y relaient et, au passage, lui envoient et en reçoivent de nombreuses connexions collatérales.

C’est ainsi que l’acception actuelle de la notion de système limbique prend progressivement naissance par une sorte de prise de distance vis-à-vis de ses origines olfactives, et ceci sur le double plan des dimensions anatomiques et des compétences physiologiques: l’étude des multiples relations anatomiques que présentent les structures limbiques avec l’hypothalamus, avec l’aire limbique du mésencéphale, avec les «noyaux limbiques» du thalamus, repousse à l’arrière-plan l’intérêt porté aux connexions afférentes à proprement parler olfactives de ces structures; parallèlement, dans l’appréciation de leur signification fonctionnelle, l’attention se détourne des afférences olfactives pour se concentrer sur l’action modulatrice que ces structures limbiques sont susceptibles d’exercer sur des mécanismes diencéphaliques et mésencéphaliques et, partant, sur les réponses somatomotrices et viscéromotrices de l’organisme.

Dans sa conception du triune brain («trois cerveaux en un», à savoir: cerveau reptilien, cerveau paléomammalien et cerveau néomammalien) de l’Homme, MacLean assimile le système limbique au cerveau paléomammalien, en lui assignant pour fonction majeure la «genèse des émotions» (emotional mind , par opposition au rational mind dont le développement a été rendu possible par celui du cerveau néomammalien).

Les structures limbiques

Du point de vue anatomique, le système limbique est constitué par un ensemble de structures corticales et sous-corticales qui sont des structures télencéphaliques phylogénétiquement anciennes (d’où la notion d’un cerveau paléomammalien), c’est-à-dire que leur mise en place dans la série des Vertébrés a précédé, au cours du développement phylogénétique, celle des structures plus récentes du télencéphale (néocortex et néostriatum).

Les structures corticales du système limbique sont situées sur la face interne ou médiane de l’hémisphère cérébral (cf. figure); ce sont:

– l’archicortex, avec en particulier l’hippocampe ou «corne d’Ammon»;

– le paléocortex, comprenant les structures à proprement parler olfactives ou «rhinencéphaliques»: bulbe olfactif, ainsi qu’un certain nombre de structures présentant avec ce dernier des relations étroites (tubercule olfactif, aire septale, aires prépiriforme et périamygdalienne);

– le cortex «transitionnel», transition entre l’archicortex et le paléocortex (constituant ensemble l’allocortex), d’une part, et le néocortex, d’autre part.

Le système limbique comprend également des formations ganglionnaires sous-corticales, à savoir les noyaux du septum et de l’amygdale ^{[cf. ENCÉPHALE]}.

Les «entrées» et les «sorties» du système limbique, c’est-à-dire ses relations anatomo-fonctionnelles, ont été précisées grâce à la mise en œuvre conjointe de méthodes anatomiques (techniques récentes de traçage des voies) et de méthodes physiologiques (neuronographie électrophysiologique). Sur le versant afférent (sensibilité), les messages nerveux provenant des différents récepteurs sensitivo-sensoriels atteignent les structures limbiques par une double voie: d’une part, à partir de certains relais sous-corticaux des grands systèmes afférents; d’autre part, à partir de l’ensemble des aires corticales d’association primaires et secondaires. C’est dire que les structures limbiques sont susceptibles de participer au traitement des informations sensitivo-sensorielles qui convergent ainsi vers elles. De plus, en associant la stimulation électrique d’une structure limbique à la stimulation naturelle d’un organe sensoriel, on a pu constater que la plupart des structures limbiques étaient susceptibles de participer au contrôle centrifuge des afférences, en modulant les mécanismes responsables de la réception et de la transmission de l’information sensorielle.

Étant donné que les discriminations sensorielles simples ne sont aucunement perturbées par des lésions de l’amygdale, de l’hippocampe ou d’une région quelconque du cortex transitionnel, il apparaît que la participation fonctionnelle des structures limbiques n’est pas nécessaire à l’analyse et à l’intégration des caractéristiques objectives de l’information sensorielle. En revanche, le système limbique joue un rôle important dans la genèse de toute signification endogène qui, par référence à l’expérience passée, se surajoute aux paramètres objectifs de la stimulation. C’est ainsi que ce système intervient dans les processus qui permettent au cerveau de percevoir le caractère nouveau ou au contraire familier d’un stimulus ou d’un aspect particulier d’une situation complexe, ainsi que dans ceux par le truchement desquels un stimulus peut acquérir une certaine signification affective, ou, éventuellement, changer de signification.

Sur le versant efférent et effecteur (motricité somatique et viscérale), les structures du système limbique présentent des connexions étroites et réciproques avec les ganglions de la base (en particulier par l’intermédiaire de la substance noire) ainsi que différentes régions du diencéphale et du mésencéphale. C’est par l’intermédiaire de ces connexions que le système limbique module les réponses comportementales de l’organisme, en même temps qu’il assure une adaptation continue de la vie végétative aux activités comportementales en cours. Les expériences de lésion ont clairement montré que l’intégrité fonctionnelle des structures limbiques n’était pas nécessaire à l’organisation et à l’exécution des différentes séquences comportementales en tant que telles. Mais le système limbique participe de façon essentielle aux processus grâce auxquels le comportement d’un organisme donné acquiert ses nuances individuelles, sa «personnalité», sa «dimension historique».

Étant donné le rôle majeur joué par les systèmes monoaminergiques ascendants (faisceau noradrénergique dorsal issu du locus coeruleus; fibres sérotoninergiques provenant des noyaux dorsal et médian du raphé; fibres dopaminergiques issues du groupe cellulaire A 10 dans le tegmentum mésencéphalique) dans la genèse des états affectifs comme dans leur expression comportementale, il importe de souligner que ces systèmes se projettent très largement sur des structures limbiques telles que l’hippocampe, le septum et l’amygdale. De plus, les neurones de ces structures sont richement pourvus de récepteurs fixant les hormones stéroïdes ou les endorphines («morphines endogènes») dont on sait qu’elles modulent, les unes comme les autres, la façon dont l’organisme perçoit une situation susceptible d’être stressante et la façon dont, en conséquence, il y fera face.

Rôle du système limbique

Dans la genèse des états de motivation

Pour assurer sa propre survie et celle de l’espèce à laquelle il appartient, l’organisme vivant doit préserver à la fois son intégrité physique, l’homéostasie de son milieu intérieur et l’équilibre socio-affectif avec son environnement; il doit se reproduire et conduire sa progéniture jusqu’au stade d’une vie autonome. Pour ce faire, il dispose des programmes d’action de son répertoire comportemental, fruit de l’histoire biologique, évolutive, de l’espèce. L’utilisation de ce répertoire, et plus précisément la probabilité que soit actualisée telle ou telle des virtualités qu’il comporte, cela est fonction à la fois des signaux extérieurs, des conditions du milieu intérieur, et des expériences du vécu individuel qui sont très largement, chez l’Homme, le reflet de l’histoire socioculturelle de l’espèce.

La part prise respectivement par les fluctuations de certains paramètres du milieu intérieur et par les références faites à l’expérience passée, dans la genèse des états de motivation et des conduites qui en sont l’expression, varie grandement d’un type de comportement à l’autre. Lorsque la séquence comportementale fait partie intégrante de l’une ou l’autre des grandes régulations biologiques nécessaires à la survie de l’individu ou de l’espèce (comportements de recherche et d’ingestion de nourriture ou d’eau; comportement sexuel mâle ou femelle; comportement maternel), un rôle prééminent est joué par la fluctuation d’un paramètre du milieu intérieur détectée par des neurones spécialisés, en particulier hypothalamiques. L’activation de ces neurones signale l’existence d’un état de besoin (il est intéressant de constater que ces drive neurons hypothalamiques sont également activés lorsqu’on prive de morphine des rats intoxiqués par cette drogue), et elle oriente le comportement de l’organisme vers la satisfaction de ce besoin, par la mise en jeu conjuguée d’un ensemble de processus: «éveil comportemental» dû à l’élévation du niveau général d’activité et de réactivité du système nerveux central; facilitation sélective de la réception et de la transmission des informations pertinentes (par ex. une odeur alimentaire ou une odeur sexuelle); accentuation sélective des vertus incitatives et gratifiantes inhérentes à ces mêmes informations. Chacune de ces séquences comportementales est donc, pour l’essentiel, l’expression d’une pulsion endogène correspondant à un besoin biologique créé par des conditions énergétiques, osmotiques ou endocriniennes particulières du milieu intérieur. Si l’on considère la seule finalité biologique immédiate de ces comportements, les mécanismes limbiques ne jouent qu’un rôle accessoire, en conférant à ces comportements un ensemble de nuances individuelles qui sont le fruit de l’expérience passée. On constate en effet que des lésions touchant différentes structures du système limbique n’interfèrent nullement avec le déclenchement et l’exécution du comportement alimentaire ou du comportement sexuel en tant que tel, mais qu’elles entraînent le plus souvent une perturbation profonde ou même une abolition des nuances individuelles.

Dans le domaine du comportement alimentaire, les lésions limbiques ont des répercussions nettes sur certaines attitudes individuelles à l’égard de la nourriture: changements plus ou moins profonds survenant dans les habitudes et dans les préférences alimentaires; déficiences dans l’acquisition d’une aversion conditionnée pour un aliment donné; perturbation de processus participant à l’établissement progressif – plus ou moins rapide selon les individus – de l’état de satiété sur la base d’afférences d’origine bucco-pharyngée et gastrique rendant compte de la quantité et de la «palatabilité» des aliments ingérés. Dans le domaine du comportement sexuel, il est classique de décrire des signes d’«hypersexualité» parmi les conséquences entraînées par des lésions bilatérales du lobe temporal chez les mâles adultes de différentes espèces, y compris l’espèce humaine. Or, les lésions de l’amygdale comme celles de l’hippocampe semblent abaisser, plutôt qu’élever, le niveau de la pulsion sexuelle (mesuré, par ex., par la fréquence avec laquelle un rat mâle traverse une grille électrifiée pour rejoindre une femelle réceptive, ou encore par les temps de latence de la monte et de l’intromission). En fait, l’hypersexualité observée à la suite des lésions limbiques correspond, dans une large mesure, à des anomalies essentiellement qualitatives du comportement sexuel: inadaptation à la situation d’ensemble (des chats opérés s’accouplent n’importe où, alors que les animaux témoins n’ont d’activité sexuelle que dans un territoire auquel ils sont adaptés) et manque de discernement dans le choix du partenaire (tendances homosexuelles plus marquées qu’avant l’intervention; les chats opérés montent même des objets inanimés). Dans ce cas, comme dans celui du comportement alimentaire, les lésions limbiques ont donc surtout pour effet de perturber l’expression des traits comportementaux individuels, et de faire régresser le comportement vers quelque chose de plus stéréotypé et de plus automatique.

De façon très générale, le système limbique est largement impliqué dans l’évolution progressive, au cours de l’ontogenèse, d’un comportement relativement stéréotypé et de type «réflexe», caractéristique de l’espèce, vers des conduites plus variées et plus nuancées qui sont l’expression d’une personnalité riche de son vécu individuel. C’est évidemment dans le domaine des comportements socio-affectifs que les références à l’expérience passée interviennent tout particulièrement pour adapter le comportement aux conditions de la situation présente, et il n’est pas surprenant que ce soit aussi dans ce domaine que des lésions limbiques induisent les modifications comportementales les plus profondes et les plus durables.

Dans la réactivité émotionnelle et les comportements socio-affectifs

Des lésions bilatérales de l’amygdale entraînent une diminution importante de la réactivité émotionnelle, aussi bien chez l’homme que chez l’animal. Dans tous les cas, cela se traduit par une certaine indifférence vis-à-vis de l’environnement, par des réactions nettement atténuées à l’égard des diverses stimulations sociales: atténuation de l’agressivité intraspécifique ainsi que des réactions de peur, de fuite ou de défense; abolition des réactions d’agression interspécifique (du chat à l’égard des petits rongeurs, du rat à l’égard de la souris). Si une semblable lésion bilatérale de l’amygdale est pratiquée chez des singes vivant en liberté, on constate que ces derniers sont incapables de se réinsérer dans leur groupe ou dans un groupe voisin. Il semble que les singes opérés ne soient plus capables de reconnaître la signification des signaux sociaux émanant de leurs congénères et d’y adapter leur propre comportement. Dans ces conditions, leur «resocialisation» devient impossible; de fait, les animaux opérés s’isolent et ne survivent que peu de temps. Il faut ajouter que dans les cas où des lésions de l’amygdale ont été pratiquées chez des sujets humains (enfants «hyperkinétiques» présentant des poussées d’agressivité plus ou moins fréquentes; adultes particulièrement irascibles qui se soumettent volontairement à cette intervention psychochirurgicale), l’effet visé – à savoir l’atténuation des réactions agressives – a certes été atteint, mais au prix d’un nivellement plus général par le bas de l’affectivité des sujets ainsi opérés.

Une destruction bilatérale de l’hippocampe entraîne, elle aussi, une diminution de la réactivité émotionnelle, tant chez l’homme que chez l’animal. L’agressivité du singe est nettement réduite à la suite de la destruction ou d’une anesthésie locale de l’hippocampe. Une ablation bilatérale de cette structure modifie l’attitude d’un sujet humain, dans le sens d’une certaine indifférence (d’une réduction de l’«investissement affectif») à l’égard d’une douleur intense qu’il continue pourtant de percevoir.

Le cortex préfrontal est étroitement relié aux structures limbiques du lobe temporal, d’une part par l’intermédiaire du noyau dorsomédian du thalamus, d’autre part par la voie du faisceau unciné. Il ne saurait donc surprendre que le comportement social du singe en liberté soit profondément perturbé par des lésions du cortex préfrontal. On constate, en effet, une réduction marquée des mimiques, des vocalisations et de toutes les interactions sociales; la plupart des animaux opérés se révèlent incapables de se réinsérer dans le groupe social dont ils faisaient partie. Cette perturbation des interactions socio-affectives, qui conduit les animaux à s’isoler, est analogue à celle observée à la suite de lésions du pôle temporal incluant l’amygdale.

Contrairement à ce que l’on vient de voir concernant l’amygdale, l’hippocampe et le cortex préfrontal, les lésions du septum provoquent de façon générale une nette hyperréactivité émotionnelle ainsi qu’une augmentation de la fréquence et de l’intensité des réactions d’agression. Chez le sujet humain, une lésion du septum peut se traduire par des réactions de rage se déroulant de façon assez stéréotypée. Le septum semble donc intervenir comme une sorte d’«atténuateur» des réactions émotionnelles et sociales.

Mode d’action du système limbique

En se basant sur les observations faites en clinique humaine, ainsi que sur un grand nombre de données expérimentales obtenues chez différentes espèces animales, on peut considérer que le système limbique intervient essentiellement dans deux ensembles de processus étroitement complémentaires:

– d’une part, les processus par lesquels des éléments cognitifs et surtout un contenu affectif spécifique sont intégrés aux différents aspects de l’information sensorielle présente, par référence à l’expérience passée, au vécu. Cette intégration conduit à prévoir, à attendre certains résultats susceptibles d’être obtenus en répondant d’une certaine façon (ou susceptibles d’être évités en s’abstenant de répondre ainsi) à l’information du moment. Cette dernière peut ainsi acquérir certaines vertus motivantes, c’est-à-dire qu’elle devient susceptible d’inciter un organisme donné à répondre (ou à s’abstenir de répondre) par une séquence comportementale donnée;

– d’autre part, les processus par lesquels s’effectue l’enregistrement des «succès» ou des «échecs» lors de la confrontation des résultats effectivement obtenus avec ceux qui étaient attendus, et partant la mise en route des renforcements positifs ou négatifs, avec consolidation ou au contraire extinction progressive de la liaison entre l’information sensorielle et la réponse comportementale.

Il est bien évident que tous ces processus présupposent que le vécu laisse des traces dans le cerveau et que ce dernier puisse s’y référer ultérieurement. Or, le système limbique – et tout particulièrement l’hippocampe – intervient également dans la constitution comme dans l’utilisation des traces mnésiques. En effet, les lésions de la formation hippocampique perturbent profondément la fixation et l’évocation des expériences récentes; à l’inverse, une nette amélioration des performances dans un conditionnement instrumental peut être induite par une stimulation non épileptogène de l’hippocampe. Les recherches d’ordre neurochimique ont mis en évidence le rôle majeur joué, dans ces processus mnésiques, par des transmissions cholinergiques au sein de l’hippocampe.

Association d’une tonalité affective à un stimulus

En ce qui concerne l’association d’une signification «appétitive» ou «aversive» à un stimulus, l’enregistrement ou l’évocation du caractère plaisant ou déplaisant d’une expérience, le rôle joué par les structures limbiques du lobe temporal est bien mis en évidence par des données fournies respectivement par des expériences de lésion, par des perturbations fonctionnelles localisées et transitoires et par des enregistrements d’activités neuronales unitaires.

La section des connexions entre le cortex visuel et le lobe temporal n’empêche pas l’analyse des paramètres physiques du stimulus visuel, mais elle entraîne, chez le singe, la perte de la signification, en particulier affective, attachée au préalable à l’information de nature visuelle; une lésion interrompant les connexions entre le cortex somesthésique et le lobe temporal perturbe, de son côté, la reconnaissance de la signification des objets sur la base des afférences tactiles. Le déficit induit par la section des connexions entre le cortex visuel et le lobe temporal est également observé à la suite d’une destruction bilatérale du cortex inféro-temporal ou encore du pôle temporal et de l’amygdale: le singe opéré est incapable de reconnaître le signal positif, c’est-à-dire celui qu’il avait précédemment appris à associer avec l’obtention d’une récompense.

Toute une série d’expériences effectuées chez différentes espèces (singe, chat, rat, souris) ont montré qu’une perturbation expérimentale transitoire du fonctionnement de l’amygdale et de l’hippocampe (par une stimulation électrique ou chimique «épileptogène», c’est-à-dire qui induit une synchronisation neuronale se traduisant par une activité électrique paroxystique) empêchait l’association d’une signification aversive à un stimulus et, partant, les réactions de peur et l’inhibition comportementale normalement déclenchées par ce signal.

Au niveau du neurone, certaines modifications du pattern de décharge constituent le reflet de la signification progressivement conférée à un stimulus initialement neutre. Au sein du cortex inféro-temporal, des neurones répondent de façon sélective à la signification d’un stimulus visuel, signification acquise par l’association préalable avec une récompense. Certains neurones du cortex entorhinal (qui est relié à l’hippocampe à la fois directement et par l’intermédiaire du gyrus dentatus) et du gyrus dentatus répondent par une activation au signal qui annonce l’obtention de nourriture, et par une inhibition au stimulus qui n’a pas cette signification appétitive.

Modulation de cette signification affective

Si l’association d’une signification affective aux données objectives de l’information sensorielle prend une part importante dans le déterminisme de la nature et de l’intensité des réponses comportementales (surtout dans le domaine des conduites sociales), il n’est pas douteux que l’enregistrement des conséquences du comportement, et les expériences affectives qui en découlent, vont avoir pour effet de moduler, en retour, cette signification dans un sens ou dans un autre. Or, dans le processus par lequel les résultats effectivement obtenus grâce au comportement sont confrontés avec ceux qui étaient attendus, avec modification éventuelle de la signification (et, partant, des vertus d’incitation) du stimulus qui l’a déclenché, c’est encore le système limbique qui est largement impliqué.

Un animal porteur de lésions bilatérales de l’amygdale fait preuve d’une sensibilité réduite à l’égard de tout changement survenant dans la récompense qu’un stimulus laisse anticiper. De façon plus générale, des perturbations plus ou moins profondes du comportement apparaissent, à la suite des lésions limbiques, toutes les fois que l’animal doit apprendre à s’abstenir de répondre à un signal, à inhiber une réponse comportementale donnée afin d’éviter une «punition» sous la forme d’une stimulation douloureuse, ou une «frustration» due à l’absence de la récompense escomptée. Dans ces conditions, l’organisme semble ne pas tirer profit de ses échecs et il a donc tendance à persévérer dans un comportement devenu inadéquat. Des observations d’ordre électrophysiologique (portant en particulier sur le rythme thêta hippocampique) confirment le fait que des structures limbiques sont impliquées dans les processus de renforcement négatif et dans les inhibitions comportementales qui en résultent.

Il semble, enfin, que l’amygdale constitue un lieu privilégié où s’effectuent les interactions complexes entre les renforcements positifs et les renforcements négatifs (avec évaluation du rapport entre les «bénéfices» à attendre d’un comportement et le «coût» qu’il y aura lieu de supporter). Et c’est la résultante de cette «algèbre interne» qui se traduira par un effet de facilitation (et de consolidation) ou au contraire d’inhibition (et d’extinction) d’une réponse comportementale donnée.

Même s’il est qualifié – à juste titre, d’un point de vue phylogénétique – de cerveau paléomammalien, le système limbique joue un rôle tout à fait essentiel dans le développement de l’aventure humaine, collective et individuelle. Car c’est grâce à lui que le comportement acquiert sa pleine dimension historique, que l’individu peut se projeter dans l’avenir selon une trajectoire qui sera «balisée» par de fréquentes références à l’expérience passée, que le vécu pourra progressivement modeler une personnalité en même temps que la façon dont elle s’exprime. Et c’est encore le système limbique qui, en évaluant et en intégrant les expériences affectives, assure la dynamogenèse des élaborations cognitives complexes dont le développement est lié, lui, à celui du cerveau néomammalien.

Encyclopédie Universelle. 2012.